Thị trấn Chũ được thành lập vào ngày 20 tháng 7 năm 1957 trên cơ sở tách phố Chũ thuộc xã Trù Hựu.[1][5]

Ngày 7 tháng 10 năm 1995, thị trấn được mở rộng trên cơ sở sáp nhập diện tích tự nhiên 184 ha và 844 người thuộc xã Trù Hựu (gồm làng Chũ, làng Nhật Đức và các hộ dân cư thuộc xã Trù Hựu đang sống xen cư trên địa bàn thị trấn Chũ).

Ngày 5 tháng 6 năm 2013, Bộ Xây dựng ban hành Quyết định số 567/QĐ-BXD công nhận thị trấn Chũ mở rộng (gồm thị trấn Chũ, xã Nghĩa Hồ và một phần các xã: Quý Sơn, Thanh Hải, Trù Hựu và Nam Dương) là đô thị loại IV.[1][2]

Đến năm 2018, thị trấn Chũ có diện tích 2,70 km², dân số là 7.743 người, mật độ dân số đạt 2.868 người/km², gồm 11 khu phố: Làng Chũ, Quang Trung, Hà Thị, Nhật Đức, Minh Khai, Dốc Đồn, Lê Hồng Phong, Lê Duẩn, Trần Phú, Lê Lợi.

Ngày 21 tháng 11 năm 2019, Ủy ban Thường vụ Quốc hội ban hành Nghị quyết số 813/NQ-UBTVQH14 về việc sắp xếp các đơn vị hành chính cấp xã thuộc tỉnh Bắc Giang (nghị quyết có hiệu lực từ ngày 1 tháng 1 năm 2020)[4]. Theo đó, sáp nhập toàn bộ 10,14 km² diện tích tự nhiên và 6.882 người của xã Nghĩa Hồ vào thị trấn Chũ.